“유효 자리 연산”으로 총 1건 검색

• 유효 자리 연산, 有效-演算, significant digit arithmetic

  갖는 몇 개의 수 연산. 연산 결과 얻은 값의 정밀도는 연산에 사용된 수의 정확도와 연산의 종류에 따라 다르다. 예를 들면, 유효 자리가 세 자리인 123.4와 유효 자리가 두 자리인 11.2라는 수가 있을 때, 덧셈의 결과값 134.6의 유효 자리는 세 자리이지만, 곱셈을 하면 1.4×103으로서 유효 자리는 2자리가...